小渊惠三1937年6月25日出生于日本本州中部的群马县。他毕业于早稻田大学,并有硕士研究生学历。26岁时,他在东京北面群马地区议会选举中获胜,成为当时最年轻的议员,此后连任众议员10年。1979年进入内阁,在国会对策委员会担任副委员长,后又先后担任冲绳发展部长和内阁官房长官,1991年4月至10月任自民党干事长。1992年竹下派分裂后,自组小渊派并任会长,1994年任自民党副总裁,后改任自民党对外经济合作特别委员长。1997年9月12日起任外相。
小渊曾于1990、1991、1993和1997年四次率团访华。